Machine de Boltzmann restreinte

Machine de Boltzmann restreinte
Type
Stochastic neural network (en), machine de Boltzmann (en)Voir et modifier les données sur Wikidata
Nom court
(en) RBMVoir et modifier les données sur Wikidata
Inventeurs
Date d'invention

En apprentissage automatique, la machine de Boltzmann restreinte (en anglais : restricted boltzmann machine ou RBM) est un type de réseau de neurones artificiels pour l'apprentissage non supervisé.

Une RBM est constituée de deux couches de neurones : une couche visible représentant les variables d'entrée et une couche cachée représentant les variables latentes apprises par le modèle. Les neurones visibles sont connectés aux neurones cachés, sans connexion au sein de chaque couche. Fondés sur des modèles de probabilité, les états des neurones sont déterminés par des probabilités conditionnelles. L'apprentissage se fait par l'algorithme de contrastive divergence (CD), qui ajuste les poids et biais pour minimiser la divergence entre les distributions des données d'entrée et celles générées par le modèle.

La machine de Boltzmann restreinte est couramment utilisée pour estimer la distribution probabiliste d'un jeu de données. Elle a initialement été inventée sous le nom de Harmonium en 1986 par Paul Smolenski[1]. Elle entre dans le cadre des modèles graphiques et des modèles à base d'énergie[2].

  1. (en) Paul Smolensky, David E. Rumelhart (dir.) et James L. McLelland (dir.), Parallel Distributed Processing: Explorations in the Microstructure of Cognition, Volume 1: Foundations, MIT Press, , 194–281 p. (ISBN 0-262-68053-X, lire en ligne), « Chapter 6: Information Processing in Dynamical Systems: Foundations of Harmony Theory ».
  2. Tiernan Ray, « EXCLUSIF : Yann LeCun (Meta) explore la frontière énergétique de l'apprentissage profond », sur ZDNet France (consulté le ).

Developed by StudentB